Your UnEmbedding Matrix is Secretly a Feature Lens for Text Embeddings
解嵌入矩阵的秘密：LLM 文本嵌入特征透镜与边缘频谱过滤
🧭 零样本文本嵌入增强 · 边缘频谱过滤 ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · Lenovo Group Limited · Wuhan University
发现 LLM 解嵌入矩阵的边缘频谱子空间编码高频噪声，提出 EmbedFilter 线性过滤，零样本提升嵌入质量并实现降维。
📌 工作参考价值（4 点）
- 嵌入后处理 trick：直接利用 LLM 自带解嵌入矩阵的 SVD，构造过滤矩阵 $\Phi_\tau$ 对文本嵌入做一次线性变换，即可显著提升语义质量，无需微调或额外训练，适合快速接入线上检索系统。
- 距离保持降维：EmbedFilter 天然保距，可将嵌入维度压缩至 1/8 甚至更低，大幅减小向量索引存储和相似度计算开销，对电商海量商品描述 embedding 的部署意义重大。
- 机制层面启发：高频 token 在零样本嵌入中的统治性表达是普遍问题，可通过 Logit Lens / Logit Spectroscopy 分析企业内部 LLM 的嵌入空间，定位并过滤干扰子空间，提升下游召回与排序效果。
- 与现有 pipeline 兼容：EmbedFilter 可直接叠加在 PromptEOL、ECHO、MetaEOL 等 prompt 工程方法之上，带来稳定叠加收益，可作为多阶段嵌入提取流程中的标准化后处理步骤。